¿Qué puede enseñarnos Santa Claus sobre la IA agéntica?

No importa en qué sector se encuentre, si es un profesional de la tecnología o la seguridad, es probable que se haya visto inundado de preguntas sobre la IA agéntica y sobre cómo puede impulsar su fuerza laboral o aumentar su exposición a las amenazas.

Con algunos años de experiencia en mi haber, quería escribir un blog con consejos sobre cómo encontrar la forma correcta de abordar y asegurar lo que sea la última «brillante nuevo»... pero es la temporada de fiestas, por lo que sería negligente no hacer una analogía festiva divertida. 

Así que aquí van algunos consejos de temática navideña que puedo ofrecer sobre la seguridad y la habilitación de la IA agéntica.

Haga una lista y revísela dos veces

El mejor inicio es asegurarse de escuchar lo que la organización quiere usar.

Un poco como todo el mundo hace una lista de Navidad, necesita saber qué aplicaciones y herramientas quiere usar su organización. Como hemos comprobado con muchas herramientas nuevas a lo largo de los años, la gente encontrará la forma de usar lo que quiera, tanto si la seguridad lo sabe como si no. Este año, la IA agéntica probablemente ocupa un lugar muy alto en esas listas de deseos.

Como todos aprendimos con la IA generativa hace unos años, no tiene sentido bloquear este tipo de herramientas sin que se vean. En cambio, lo mejor es encontrar la forma de habilitarlos en consecuencia. Pero recordad que, aunque es una táctica clave entre los niños en la noche de Nochebuena, la esperanza no es una estrategia en ciberseguridad. Como líder en seguridad, necesita tener un plan para habilitar y proteger estas herramientas y aplicaciones. Y eso significa empezar por la visibilidad.

Saber quién es travieso o bueno

Si hay algo que sabemos del hombre grande de rojo, es que siempre está vigilando.  Santa tiene una visibilidad constante sobre quién es travieso y quién es bueno, y usted quiere estar reflejando este tipo de visibilidad al agregar cualquier nuevo herramienta a su organización.

Esto no es menos importante para las soluciones de IA agéntica, que avanzan muy rápido una vez implementadas y pueden provocar una gran exposición o incluso abusos si no se configuran correctamente.

Asegúrese de saber qué aplicaciones tienen acceso a los datos de su organización y cómo se usan. A partir de ahí, es necesario contar con políticas adecuadas para asegurarse de controlar el acceso y el uso de datos confidenciales o sensibles. 

Supongamos que implemento un grupo de agentes dentro de una empresa y uno de esos agentes recibe instrucciones para hacer algo incorrecto. Es importante para nosotros tener visibilidad como punto de partida, pero aún necesitamos aventurarnos en territorio desconocido y descubrir cuánto daño se ha causado realmente.

Y para lograrlo, se necesitan las personas adecuadas que lideren el proceso… lo que me lleva a mi siguiente consejo:

Dejad que el reno tire del trineo

Como CISO, creo firmemente en un enfoque dirigido por desarrolladores a la hora de encontrar formas de asegurar y habilitar la IA. 

Cuando se trata de un área tan nueva de tecnología en evolución, siempre habrá limitaciones en lo que usted mismo puede saber. Por eso necesita poder recurrir a un equipo de confianza para ayudar a avanzar, igual que Papá Noel hace con su fiel equipo de renos tirando del trineo.

Confío en mis desarrolladores para que me ayuden a plantear y responder las preguntas difíciles que surgen. Preguntas como «¿Qué pasa si un agente malintencionado se descontrola?» Necesitamos ser capaces de resolver, ¿Cómo investigo eso? ¿Voy al servidor? ¿Voy al servidor y capturo la memoria? ¿Uso la forense tradicional y las características de respuesta a incidentes para hacer esto o tengo que repensar todo el proceso? ¿Tengo que usar algo totalmente diferente?

Ninguna de estas es una pregunta fácil de responder. Pero bueno, ¡no es fácil ser un reno volador! Pero el inicio del equipo con esta mentalidad ahora, antes de que la IA agéntica se sienta fuera de control en la organización, les permite comenzar a pensar y sentirse cómodos al trabajar con este tipo de preguntas si alguna vez terminan en esta situación.

Cree un equipo de elfos trabajadores

Al mismo tiempo, también sabemos que una de las principales razones por las que Papá Noel es tan alegre es porque tiene un equipo de elfos de confianza que hacen el importante trabajo para que las cosas funcionen bien. 

Más allá de los desarrolladores, otra área que recomendaría a todos los equipos de seguridad es crear sus embajadores de la IA. Son los miembros del equipo que trabajan duro en todos los departamentos de la organización y se centran en compartir la información del equipo de seguridad y del comité de gobierno de la IA con su equipo. Además, al igual que los elfos, pueden asumir un poco más de trabajo revisando las propuestas antes de que lleguen al comité de gobierno de la IA, así como al equipo de seguridad para su revisión. 

Un equipo de embajadores de IA de confianza le ayudará a darse una capa interna de visibilidad, al tiempo que contextualiza algunas de las mejores prácticas clave que todo departamento debería usar en lo que respecta a nuevas herramientas de IA.

Que sus días sean felices y brillantes (y seguros)

La temporada navideña y el año nuevo pueden ser una época estresante, especialmente si intenta implementar y asegurar esas nuevas herramientas que su organización ha estado pidiendo. Pero si sabe con qué tipo de herramientas estás tratando, asegurándose de que la visibilidad esté integrada en su plan desde el primer día, y tiene desarrolladores liderando su enfoque, al menos empieza con buen pie. 

Solo asegúrese de recordar dejar suficiente leche y galletas (o pizza y bebidas energéticas) para las personas que ayudan a hacer realidad estos planes.